Tuy nhiên, kế hoạch của Zachariadis đã thay đổi. Ông thay đổi quan điểm sau sự kiện Khủng bố trắng.[cần dẫn nguồn] Do đó, ông quyết định bài trừ cuộc Bầu cử Lập pháp Hy Lạp năm 1946, một điểm khởi đầu của Nội chiến Hy Lạp kéo dài từ năm 1946-49.

Zachariadis đích thân chỉ đạo các chiến dịch quân sự của Quân đội Dân chủ Hy Lạp thuộc phe cộng sản, được thành lập để thiết lập nền dân chủ nhân dân cộng sản tại Hy Lạp.[2][cần nguồn tốt hơn]

Ông ra lệnh cho tư lệnh của ELAS là Markos Vafiadis từ bỏ các chiến thuật chiến tranh du kích và học tập, thích nghi với chiến thuật chiến tranh thông thường: theo Vafiadis, điều này đã tạo ra ảnh hưởng tiêu cực tương đối lớn với ELAS.[3] Vafiadis sau này bị khai trừ khỏi đảng KKE vì thách thức quyền hạn của Zachariadis và bị quản thúc tại gia ở Albania, bị kết tội là gián điệp Anh.[3] Trong Nội chiến Hy Lạp, Zachariadis cũng cho người ám sát nhiều đối thủ cánh tả thuộc đảng KKE, chủ yếu tại Athens.[4]

Tuy nhiên, theo hiệp ước giữa Stalin và các đồng minh phương Tây, Hy Lạp sau chiến tranh sẽ nằm trong tầm ảnh hưởng của phương Tây và đối đầu - chính thức - với bất cứ tổ chức cộng sản nào định nắm quyền: ông ra lệnh cho các lãnh đạo KKE phải hợp tác với quân đội Anh khi họ đặt chân đến Hy Lạp năm 1944, và từ chối hỗ trợ bất cứ gì cho KKE khi họ cầm súng chống lại chính phủ bảo hoàng do Anh dựng lên.[5]

Nam Tư và tổng thống Tito ban đầu hỗ trợ KKE nhưng sau đó đã cắt viện trợ khi Tito cắt đứt liên lạc với Stalin vào năm 1948. Sự can thiệp quân sự của Anh và Mĩ, cùng với việc thiếu đi hỗ trợ nước ngoài từ Tito hay Stalin, đã dẫn đến chiến bại của Quân đội Dân chủ Hy Lạp năm 1949. Ban lãnh đạo KKE và tàn quân của Quân đội Dân chủ bỏ trốn khỏi Hy Lạp và sống trong cảnh lưu đày ở Liên Xô hoặc các nước cộng sản khác.